Quê nội Nguyễn Khải ở thành phố Nam Định nhưng tuổi nhỏ sống ở nhiều nơi. Đang học trung học thì gặp Cách mạng tháng Tám. Trong Kháng chiến chống Pháp, ông gia nhập đội tự vệ chiến đấu ở thị xã Hưng Yên, sau đó vào bộ đội, làm y tá rồi làm báo. Bắt đầu viết văn từ những năm 1950, được chú ý từ tiểu thuyết Xung đột (phần I năm 1959, phần II năm 1962).

Sau năm 1975 Nguyễn Khải chuyển vào sinh sống tại thành phố Hồ Chí Minh. Ông rời quân đội năm 1988 với quân hàm đại tá để về làm việc tại Hội Nhà văn Việt Nam. Nguyễn Khải từng là Ủy viên Ban chấp hành Hội Nhà văn Việt Nam các khóa 2, 3 và là Phó tổng thư ký khóa 3. Ông là Đại biểu Quốc hội khóa VII.

Nguyễn Khải mất ngày 15 tháng 1 năm 2008 tại thành phố Hồ Chí Minh do bệnh tim. Ông có ba người con, hai trai một gái, trong đó người con trai út là Nguyễn Khải Hoàn, Chủ tịch Tập đoàn bất động sản Khải Hoàn Land.[1]